Improve tracepoint support.

* tapsets.cxx (tracepoint_extra_decls): Update the extra declarations
  needed to find the tracepoints.

PR19216 fix: Do some code renaming.

* runtime/linux/kprobes.c: Rename 'stap_dwarf_kprobe' to 'stap_kprobe' and
  'stap_dwarf_probe' to 'stap_kprobe_probe', since those structures aren't
  just related to dwarf-based kprobes anymore.
* tapsets.cxx: Ditto.

Fix PR19216 by merging the dwarf and non-dwarf kprobe support code.

* tapsets.cxx: Move common kprobe code to the new
  'generic_kprobe_derived_probe' class and make the 'dwarf_derived_probe'
  and 'kprobe_derived_probe' classes derive from it. Replace the
  'dwarf_derived_probe_group' and 'kprobe_derived_probe_group' classes with
  the 'generic_kprobe_derived_probe_group' class.
* session.cxx (systemtap_session): Replaced the 'dwarf_derived_probes' and
  'kprobe_derived_probes' probe groups with the
  'generic_kprobe_derived_probes' probe group.
* session.h: Ditto.
* runtime/linux/kprobes.c (stapkp_prepare_kprobe): Set up the kprobe
  'symbol_name' field.
  (stapkp_prepare_kretprobe): Ditto.
  (stapkp_symbol_callback): Handle symbol_name+offset probes in the kernel
  and modules.
  (stapkp_init): Handle NULL and empty module names.
* testsuite/systemtap.base/modules_out_of_tree.exp: Add dwarfless probing
  tests and relative path tests.

Remove extranious line from the generated label.c file for label.exp test

The additional line added by commit 2d703227f41f6625f6041b1354010cf1530099ae
was messing up the matching.  Removed the beginning blank line so that the
line number matched up again.

Utilize new probe point expansion.

Selected sample scripts now use the brace expansion feature to
simplify the probe point specification.

PR16672: Support brace expansion for probe points

parse_probe_point() modified to parse the entire alias or
location list instead of one at a time. The expansion of
curly braces is done during parsing.

* NEWS: short blurb
* doc/langref.tex: documentation
* man/stapprobes.3stap: documentation
* parse.cxx: parse_probe_point() renamed to parse_probe_points(),
  new functions parse_component() and parse_components() used for
  parsing subsections of probe point.
* testsuite/*: test it

Increase bz1027459.exp timeout to allow slow machines to test this.

stapdyn: use the simpler DYNINST_9_1 macro for callback changes

man error::pass2: mention prologue-searching for unavailable $context

PR19362: fix doubled locations in probe copy-ctor

Commit 1341a03cc550835d5ddab35bb9333e43bd623714 moved most of the body
of the probe::probe copy constructor to its initializer list.  However,
the push to locations was accidentally left, so this vector was both
initialized and appended, doubling all probes from here.  This showed up
in library.exp SDT probes which counted twice too many matches.

unwind diagnostic improvements

Add a heuristic for missing kernel unwindsyms to the runtime.
Tweak documentation to spell out --ldd is for userspace only.

Reported by: Nikolay Borisov <n.borisov@siteground.com>

Ensure use of the function argument values from function entry in lwtools

On some machine such as powerpc64 and aarch64 function arguments are
passed using processor registers.  The compiler is free to use those
registers how it sees fit. Thus, the register value on function return
may differ from the original argument value on function entry.  To
ensure using the value from function entry the scripts use the
@entry() in the return probes.

Fix PR19358 by updating netfilter support for 4.4 kernels.

* tapset-netfilter.cxx (emit_module_decls): Handle kernel v4.4 netfilter
  changes.
* runtime/linux/autoconf-netfilter-4_4.c: New autoconf test to test for
  kernel v4.4 netfilter changes.
* buildrun.cxx (compile_pass): Add new autoconf test.

stapdyn: prepare for the dyninst 9.1 library callback change

The new API uses BPatch_object for the callback, because modules (~=CUs)
are now fully represented in shared objects too.  This is better, but we
need to keep fallback code for the old API too, using module->getObject().

stapdyn: re-poll dyninst directly before sleeping

The poll fd comes from proccontrol, but sometimes dyninstAPI pulls events
into its own queue without handling them yet.  If we then sleep in syscall
ppoll, we won't hear about those events until we hit the timeout.  We can
do a quick dyninst poll first to clear those out.

Fix typos in tapset/linux/arm/nd_syscalls.stp.

Add some support for older arm kernels.

* tapset/linux/arm/aux_syscalls.stp: Add support for arm kernels less than
  3.7.
* tapset/linux/aux_syscalls.stp: Ditto.
* tapset/linux/arm/syscalls.stp: Add support for [nd_]syscall.execve for
  arm kernels less than 3.7.
* tapset/linux/arm/nd_syscalls.stp: Ditto.

Make 2 small syscall testsuite changes for arm.

* testsuite/systemtap.syscall/stat.c: Mark fstatat64 as covered.
* testsuite/systemtap.syscall/coverage.tcl: Add a few modifications for
  arm-based systems.

Add more arithmetic and map delete test cases.

* testsuite/systemtap.base/arith.stp: Add more cases.
* testsuite/systemtap.maps/ii.stp: Ditto.
* testsuite/systemtap.maps/ii.exp: Update for new test case.

Workaround PR19345 by not running the functioncallcount example on s390x.

* testsuite/systemtap.examples/profiling/functioncallcount.tcl: Don't run
  the functioncallcount example on s390x kernels less than 3.11.

stap-server coverity fix: check stat(2) rc

It's proper, so let's.

systemtap.spec: disable py_auto_byte_compile:/usr/lib/rpm/brp-python-bytecompile

Failing python bytecompiles needlessly concern rpmdiff sometimes.

stap docs: syscalls.xml table to use simpler colwidth

Apparently some versions of xmlto / pdflatex or whatever choke on
the docbook-xml  colwidth="1*"  construct, so we use linear distances.

Rewrite and add type mismatch 'semko' tests.

* testsuite/semko/typemismatch.stp: Deleted. Replace by
  typemismatch[123].stp.
* testsuite/semko/typemismatch1.stp: New test case.
* testsuite/semko/typemismatch2.stp: Ditto.
* testsuite/semko/typemismatch3.stp: Ditto.
* testsuite/semko/typemismatch4.stp: Ditto.

systemtap.spec: define empty dracut macro => %{nil}

RPM likes to have -some- macro body.

i18n update

Add RHEL7.2 fixes for PR18889 so that we can probe module initializers.

* runtime/linux/kprobes.c (stapkp_prepare_kprobe): If we have
  kallsyms_on_each_symbol(), just return if we don't have an address.
  (stapkp_prepare_kretprobe): Ditto.
  (stapkp_symbol_callback): New callback function for
  kallsyms_on_each_symbol() to convert symbol_name+offset probes into
  address probes. This works around a kernel bug and should be faster as
  well.
  (stapkp_init): Call kallsyms_on_each_symbol() when needed.
  (stapkp_refresh): Ditto.
* runtime/transport/symbols.c (_stp_module_notifier): Change to the new
  module refresh logic if the kernel version is 3.10 or higher.
* tapsets.cxx (dwarf_derived_probe_group::emit_module_decls): Ditto.
* testsuite/systemtap.base/kmodule.exp: Only run the subtests that load
  the test kernel module after the systemtap module is loaded on systems
  that support module refreshes.

Add vim syntax highlight for new private keyword

Add a comment about perf probes .hz field.

Add testcase for function definitions.

* testsuite/systemtap.base/func_definition.exp: New test case.
* testsuite/systemtap.base/func_definition.stp: New test file.

PR13820: timer.profile(NNN) variant using perf probes

Add a probe point for profiling at given frequency.
The rate is only accurate up to 100 hertz since it is
implemented as an alias to perf probes.

* tapset-perfmon.cxx: new .hz(N) component
* tapset/timers.stp: timer.profile.freq alias for pattern matching

Use main ELF file path if there is no separate debugfile in error messages.

* dwflpp.cxx (dwflpp::die_location_as_string): Use main ELF file if there
  is no debugfile to show the file path that the DIE came from.

Add more test cases to testsuite/systemtap.base/timers.exp.

* testsuite/systemtap.base/timers.exp: update for new test cases
* testsuite/systemtap.base/timers.stp: add more test cases

Add testcase for "break" and "continue".

* testsuite/systemtap.base/break_and_continue.exp: New test case
* testsuite/systemtap.base/break_and_continue.stp: New test file

Fixed permissions on new parseko/semko tests.

perf tapset: add recent uapi/linux/perf_event.h bits

The perf_event_attr uapi has grown a few more predefined
event aliases.

Add 2 parse testcases.

* testsuite/parseko/var_definition1.stp: New test case
* testsuite/parseko/var_definition2.stp: New test case

Add 'semko' testcase for timer probe.

* testsuite/semko/timer_hz_randomize.stp: New test case.

Fix BZ1285348 by updating systemtap's memory flag usage.

* runtime/linux/runtime_defines.h: Make sure __GFP_WAIT is defined.
* runtime/stp_utrace.c (utrace_task_alloc): Change GFP_IOFS to
  STP_ALLOC_FLAGS.
  (utrace_attach_task): Ditto.

stap.1: tweak foreach template text

Add a nop_visitor, and use it for expression_is_functioncall

In expression_is_functioncall, it only cares if the immediate expression
is a functioncall, but the expression_visitor it was derived from would
fully traverse all other expressions.  All it really wanted was like a
visitor-patterned dynamic_cast.

The new nop_visitor better enables this.  It does nothing at all for any
node types, and then expression_is_functioncall can override just for the
functioncall it cares about.

(We haven't yet settled whether to prefer a visitor pattern like this,
or more direct virtual calls like expression::is_symbol, or just plain
dynamic_cast<>.  Try to avoid the need for downcasts if possible.)

Remove functioncall::var_assigned_to_retval

It's unusual to have a value specific to one visitor stored in the tree
node itself.  This particular value is only used by c_unparser.  Make it
a c_unparser member instead, saved and restored as necessary to allow
for nested calls.

Merge branch 'master' of ssh://sourceware.org/git/systemtap

PR18884 bonus: optimize tmps in more places

Anywhere a tmpvar is subject to a single assignment, use the new
c_assign which can use an override with literal values.

PR18884: skip tmps for any literal, not by tok->type

Some literal expressions get created dynamically, like const-folding an
expression of two literals.  Those will probably not have a tok->type
that looks like a literal, but they're still reasonable candidates to
skip temporary storage and output directly into C.

Add a new c_assign for any tmpvar=expression, which will check for
literals to override the tmp, or else assign them as normal.  Literals
are detected with a dynamic_cast of the expression, without looking at
the token at all.  In many places that were roughly doing this based on
tok->type, use the new c_assign to handle it automatically.

The new test transok/literal_tmp.stp compares the PR18884 examples,
asserting that they now have *exactly* the same generated code.

Restrict optimization of literals in "%s\n" to streams only

This "use_print" optimization is only effective for printing to streams
with _stp_print().  Then a literal string argument to "%s\n" can just
have that literal token-pasted with the newline string.  But when
printing to strings, like sprintln, that optimization isn't actually
taken, so it was getting the newline twice.

Add new tests with sprint and sprintln on string literals, then clean up
the code that does the optimization -- for streams only.

testsuite: swap dot.exp and sprint.exp

These two test drivers had swapped names for their respective .stp
files.  The contents are unchanged, just rename-swapped.

Eliminate the use of tex(nomencl.sty) in TeX documentation files

RHEL 7 does not package the nomencl.sty file and having this style
file used in systemtap makes it difficult to build the documentation.
The only place it was being used was in the tutorial.tex and it was
not generating a useful glossary.  The glossary generation of
tutorial.tex has been disabled for the time being.

parse: intern keywords

parse: check atwords without an explicit '@'

parse: unorder keywords and atwords

Support backspace handling in monitor mode for probe toggling.

Swap argument order to check for bytes written.

Fix monitor mode to be compatible with the private global feature.

The synthetic functions and variables did not have a __global_
prefix, causing the symbol resolution to fail at finding them.
Commit 0c7e069fe82 assumes that there is a token for every probe
while two synthetic probes are generated in monitor mode with
null context. parse_synthetic_probe uses "<synthetic>" again
if no token is found for the probe. The __global_ prefix is shown
in monitor mode where global variables are shown so they needed
to be unmangled as done in commit 8f54215ef850c809.

* elaborate.cxx: above changes
* parse.cxx: fall back to "<synthetic>" if token is nullptr
* staprun/monitor.c: use return values of function calls
* staptree.cxx: check for token nullptr in functiondecl::printsig

Fix undeclared pipe2 problem.

Use pipe and fcntl instead.

testsuite: allow pn to report *both* open and openat

testsuite: add a semicolon in perf.sh function poly()

Merge branch 'funstuff'

Fix undeclared F_SETPIPE_SZ error

Removed usage for now. This may be needed later to ensure
pipe does not overflow.

Fixed PR19275 by updating stap_run.

* testsuite/lib/stap_run.exp: The stap_run() function now fails if it
  receives any unexpected output. The 'all_pass_string' was modified to be
  only one copy of "systemtap test success" instead of allowing of
  multiple copies.
* testsuite/systemtap.base/array_slicing.exp: Handle stap_run
  changes. Also, fixed the test names so that they aren't '$test_name'.
* testsuite/systemtap.base/at_var_tracepoint.exp: Update for stap_run
  changes.
* testsuite/systemtap.base/at_var_tracepoint.stp: Ditto.
* testsuite/systemtap.base/be_order.stp: Ditto.
* testsuite/systemtap.base/div0.exp: Ditto.
* testsuite/systemtap.base/error_fn.exp: Ditto.
* testsuite/systemtap.base/global_init.stp: Ditto.
* testsuite/systemtap.base/global_var_kernel.exp: Ditto.
* testsuite/systemtap.base/global_vars.stp: Ditto.
* testsuite/systemtap.base/if.exp: Ditto.
* testsuite/systemtap.base/if.stp: Ditto.
* testsuite/systemtap.base/kprobes.exp: Ditto.
* testsuite/systemtap.base/logical_and.stp: Ditto.
* testsuite/systemtap.base/maxactive.exp: Ditto.
* testsuite/systemtap.base/pp.exp: Ditto.
* testsuite/systemtap.base/print.exp: Ditto.
* testsuite/systemtap.base/proc_by_pid.exp: Ditto.
* testsuite/systemtap.base/process_by_pid.exp: Ditto.
* testsuite/systemtap.base/procfs_maxsize.exp: Ditto.
* testsuite/systemtap.base/procfs_umask.exp: Ditto.
* testsuite/systemtap.base/stmt_counting.exp: Ditto.
* testsuite/systemtap.base/stmt_counting_functions.stp: Ditto.
* testsuite/systemtap.base/stmt_counting_straight.stp: Ditto.
* testsuite/systemtap.base/timers.exp: Ditto.
* testsuite/systemtap.base/tri.stp: Ditto.
* testsuite/systemtap.context/context_ns.exp: Ditto.
* testsuite/systemtap.context/pid_ns.stp: Ditto.
* testsuite/systemtap.context/usymfileline.exp: Ditto.
* testsuite/systemtap.printf/memory1.exp: Ditto.
* testsuite/systemtap.stress/current.exp: Ditto.

update NEWS

update systemtap.spec

Include build requirements for json-c and ncurses.

PR18848: Add manual testing readme guide

PR18848: Only compile monitor mode if json-c and ncurses developer
libraries are installed. Updated automake/conf files.

* session.cxx: error if using monitor mode when not compiled with
required libraries

PR18848: Fix pipe buffer overflow problem, improve monitor UI

The pipe used in monitor mode was not being read the moment
data was available, causing an overflow. pselect now watches
the pipe fd for data to read. The UI now cuts off the probe name
if terminal size is not wide enough.

PR18848: fix json array string

Arrays were not made into key-value pairs when global scalars were
turned into a json object. Currently, only the array sizes are shown.

PR18848: add --monitor option in man/stap.1

Stap man page now provides an overview of the --monitor option
along with the main commands.

PR18848: add help page, switch to page scrolling for output

Status bar can be toggled to show a manual page describing the
various commands available. Module output now scrolls by pages
instead of lines.

PR18848: Fix json parsing error

Quotes in the probe names for the json string were not escaped to
form a valid json object. They had to be escaped once for the
systemtap parser and once more for the json parser.

* elaborate.cxx: escape quotes twice when generating json string
* staprun/monitor.c: check for correct parse result

PR18848: use a pipe to redirect module output instead of proc file

The module output can be written directly into a pipe by the reader
thread for the monitor interface to read.

* runtime/monitor.c: deleted
* runtime/print_flush.c: removed monitor path
* staprun/monitor.c: read output from pipe
* staprun/relay.c: create pipe and redirect output
* translate.cxx: remove proc file creation

PR18848: increase history limit of output queue, add more keybindings
for scrolling probes and output

History size increased to 8192, arrows keys and pageup/pagedown keys
can be used as an alternative for scrolling

PR18848: add module output scrollback, status window now refreshed
on input

Users can now use the u and d keys to scroll back and forward through
the output. The scrollback uses a moving window approach over a queue.
The status window is now updated upon input for a smoother experience.

PR18848: add probe scrolling capability

Users can now use j and k keys to scroll down and up the probe list
respectively.

PR18848: increase timeout timer and remove strsignal

PR18848: improve keyboard input response time

pselect now watches stdin for input.

PR18848: zero pad the uptime

Uptime was not padded before if the unit was a single digit value.

PR18848: only handle SIGWINCH in monitor mode

PR18848: move resizing functionality out of signal handler

Calling many functions in signal handler may be unsafe. A global
variable is now set on SIGWINCH.

PR18848: handle terminal resizing

The curses UI now adjusts it's windows to the new dimensions of the
terminal upon receiving a SIGWINCH.

PR18848: display current probe input

Input prompt now shows what the user has entered.

PR18848: add command line option to specify interval for polling stats

Users can display the stats every N seconds with --monitor=N

* buildrun.cxx: append monitor interval.
* cmdline.cxx: --monitor optional argument
* session.cxx: new monitor_interval attribute
* staprun/common.c: parse --monitor optarg
* staprun/mainloop.c: decrease pselect timeout to poll input quicker
* staprun/monitor.c: render monitor stats every N seconds

PR18848: improve monitor ui and refactor input function.

Improved hint on keyboard mappings. New function to write
to procfs interface.

PR18848: add most functionality to curses interface

Currently, a file is used to redirect stp_print output to curses window.
Previous curses interface code in mainloop got refactored into monitor.c.

* runtime/monitor.c: New file. procfs functions for stp_print redirection
* runtime/print_flush.c: Redirect stp_print to curses interface in
  monitor mode
* staprun/monitor.c: New file implementing curses interface
* staprun/mainloop.c: Move code into monitor.c
* staprun/Makefile.*: Link json-c and curses library, include monitor.c
  to source list
* translate.cxx: Create procfs file for stp_print redirection

PR18848: change json format and retain entire probe name.

* elaborate.cxx: global variables are no longer in a list.

PR18848: Add json parser and comparators to allow sorting

Probe list will be sorted at runtime based on a user input on
either name, hit count, or cycles.

* staprun/mainloop: include json-c and parse the monitor read interface.

PR18848: modify printf format

Format changed to %d from %lld

PR18848: convert procfs read to json format

Json format allows for easy sorting of probes through json arrays.
This can be done at runtime based on probe attributes.

* elaborate.cxx: convert monitor_mode_read to output json.

PR18848: monitor status formatting

Removed h:m:s indicators in uptime and global scalar values are now
displayed.

* elaborate.cxx: changes in monitor_mode_read()

PR18848: output monitor data in stapio event loop

* staprun/mainloop.c: polls procfs monitor interface for data

PR18848: remove print statement

elaborate.cxx: removed a debug print statement

PR18848: new command line argument -M for staprun

Pass stap --monitor command to staprun.

* buildrun.cxx: add -M argument to flags
* staprun/common.c: -M option to parse_args
* staprun/mainloop.c: add a timeout to pselect in monitor mode
  to prevent blocking and allow the procfs monitor interface to
  be polled.
* staprun/staprun.h: monitor extern declaration

PR18848: refactor functions

Renamed the initialization function and removed some redundant
parameters.

PR18848: move embedded code for module size into tapset

* elaborate.cxx: remove monitor synthetic function
* tapset/linux/context.stp: new module_size function

PR18848: use jiffies tapset function

Switch the implementation of uptime to use the jiffies and hz tapset
functions instead of using embedded C

* elaborate.cxx: remove old embedded C function to get uptime. Added
  a synthetic begin probe to obtain starting time. Synthetic variables
  are now hidden in monitor mode and not reset.
* translate.cxx: remove jiffies inclusion in monitor mode.

PR18848: new procfs monitor mode option

Presents a procfs read interface to obtain data about the running
script and another procfs write interface to control the script

* cmdline.cxx: new "monitor" option
* cmdline.h: new field in enum
* elaborate.cxx: new functions monitor_mode_read and monitor_mode_write
  synthesizes procfs probes for the interfaces
* session.cxx: new monitor flag
* session.h: new monitor flag
* translate.cxx: extra code is generated to provide statistics for
  monitor mode, function emission is delayed to allow stap_probes to
  be first defined

Update the PR19241 fix so that 'out_fd' gets correctly handled.

This is an update to commit d879410b. Before this update, stap
in "stream mode" was using invalid output file descriptor per
https://sourceware.org/bugzilla/show_bug.cgi?id=19241#c2.

Allow buildok/{rpc-all-probes,rpc-detailed} to access private var.

Tests buildok/rpc-all-probes.stp and buildok/rpc-detailed.stp are
examining '@__private30 global __rpc_create_args' array.  That can
only be accessed using '--compatible=2.9' by the test script.

This approach to testing private stuff will probably need to change
in the future.  For now, this update aligns buildok/{rpc-all-probes,\
rpc-detailed}.stp to other buildok tests examining private variables
or functions.

Mark c_tmpcounter final

Remove the last visitors from c_tmpcounter

Now c_tmpcounter doesn't doesn't have any duplicated visitors at all.
It only overrides a few key virtual methods in c_unparser to get the
functionality it needs.

Subclass c_tmpcounter directly from c_unparser

The c_tmpcounter is meant to be a shadow of c_unparser, walking the same
walk to declare the temps that c_unparser will need.  But this was done
manually in a fragile balancing act, with a lot of duplicated logic and
little to ensure it was correct unless it failed to compile at all.

Now c_tmpcounter is a subclass of c_unparser so it can be a real shadow,
truly walking the same walk via the exact same code.  The normal output
is just dumped into a nulled ostream for this pass.  When a var is
accessed the first time through its value(), c_tmpcounter writes its
declaration to the real ostream.  A var that's created but not used will
be left out automatically, like a tmpvar that gets an override().